Бащата на Моли Ръсел призовава за край на алгоритмите, „изтласкващи вредно съдържание“ шест години след смъртта й
, която посегна на живота си, на 14 години, през ноември 2017 г., след като прегледа публикации, свързани със самоубийство, депресия и тревожност онлайн, щеше да празнува 21-ия си рожден ден тази седмица.
Миналия септември ученичката от Хароу, северозападен Лондон, „страдаше от депресия и отрицателните ефекти на онлайн съдържанието“.
Фондацията на Моли Роуз заяви, че нейното ново изследване показва „шокиращия мащаб и разпространение“ на вредното съдържание в Instagram, TikTok и Pinterest, шест години след смъртта й.
В TikTok някои от най- гледани публикации, които споменават самоубийство, самонараняване и силно депресивно съдържание, са били гледани и харесвани повече от милион пъти, според благотворителната организация.
В доклада се казва, че на младите хора рутинно се препоръчват големи обеми вредно съдържание захранван от високорискови алгоритми.
Въпреки че притесненията около хаштаговете са фокусирани главно върху Instagram и TikTok, страховете относно алгоритмичните препоръки се отнасят и за Pinterest, се казва в съобщението.
Изображение: Иън Ръсел призова за действие за спиране на вредното съдържание. File PicГ-н Ръсел, който е председател на попечителите на фондация Molly Rose, каза: „Тази седмица, когато трябва да празнуваме 21-ия рожден ден на Molly, е тъжно да видим ужасяващия мащаб на онлайн вредата и колко малко се е променило социални медийни платформи след смъртта на Моли.
„Колкото по-дълго технологичните компании не успяват да се справят с предотвратимите вреди, които причиняват, толкова по-непростимо става това.
„Шест години след смъртта на Моли, това трябва сега се разглежда като основен системен провал, който ще продължи да коства млади животи.
„Точно както Моли беше съкрушена от обема на опасното съдържание, което я бомбардира, открихме доказателства за алгоритми, изтласкващи вредни съдържание буквално за милиони млади хора.
„Това трябва да спре. Все по-трудно е да се разглеждат действията на технологичните компании като нещо различно от съзнателно търговско решение да се позволи на вредното съдържание да постигне астрономически обхват, като същевременно се пренебрегват мизерията, която се монетизира със запазване на вредни публикации и потенциално „наблюдавани“ в техните десетки хиляди.“
Прочетете повече:
Докладът на благотворителната организация е създаден с The Bright Initiative, анализирайки данни от 1181 от най-ангажираните публикации в Instagram и TikTok, които използват добре познати хаштагове за самоубийство, самонараняване и депресия.
Фондацията заяви, че е загрижена, че проектирането и функционирането на платформи за социални медии увеличава риска за някои младежи поради лекотата, с която биха могли да намерят потенциално вредно съдържание чрез търсене на хаштагове или препоръки.
Закон за онлайн безопасността
Той също така предполага, че търговският натиск може да увеличава рисковете, тъй като сайтовете се състезават да грабнат вниманието на младите хора и да ги накарат да превъртат през емисиите си.
Г-н Ръсел каза, че констатациите подчертават важността на новия Закон за онлайн безопасността и призова за новия регулатор на онлайн безопасността Ofcom да бъде „смел“ в начина, по който държи фирмите за социални медии отговорни съгласно новите закони.
Законът и Ofcom през следващите няколко месеца около популяризирането на материали, свързани със самоубийства и самонараняване, като всеки нов кодекс изисква парламентарно одобрение, преди да бъде въведен.
Говорител на Meta каза: „Искаме тийнейджърите да имат безопасни, подходящи за възрастта им преживявания в Instagram и работихме в тясно сътрудничество с експерти, за да разработим нашия подход към съдържанието за самоубийство и самонараняване, който има за цел да постигне важния баланс между предотвратяването на хората да виждат чувствително съдържание и същевременно даването на пространство на хората да говорят за собствения си опит и да намерят подкрепа.“
Те каза, че са създадени повече от 30 инструмента, включително контрол за ограничаване на типа съдържание, което се препоръчва на тийнейджъри, и компанията скоро ще обяви допълнителни мерки.
TikTok и Pinterest също са се свързали за коментар.
